Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

На самом деле Суцкевер вел переговоры с компанией, пытаясь найти способ остаться в OpenAI. Да, он организовал переворот, но OpenAI была делом всей его жизни. Увидев, что компания на грани краха, он понял, что готов на все, лишь бы ее спасти. И сам Суцкевер, и руководство OpenAI понимали, что для других исследователей он был маяком, духовным гуру технологической сингулярности, чей послужной список позволял ему делать громкие заявления вроде: «В будущем станет очевидно, что единственной целью науки было создание AGI»[374]. Сообщество ИИ-исследователей признало его своим лидером, дважды подряд ему вручали престижную премию Test of Time Award на конференции NeurIPS – награду за статью 10-летней давности (она явно прошла испытание временем). А вскоре вручат и в третий раз.

Более того, следующий крупный прорыв компании – модель логического мышления под кодовым названием Strawberry, запланированная к выпуску в том же году, – был плодом именно его новаторской работы. OpenAI предложила Суцкеверу щедрый пакет, чтобы его удержать, и он уже почти согласился. Но в итоге 14 мая объявил, что уходит ради «личного проекта», имеющего для него «особое значение». Все старались сохранить хорошую мину при плохой игре: Суцкевер, Альтман, Брокман, Мурати и Пачоцки сфотографировались в обнимку на фоне стены, увешанной изображениями экзотических животных авторства самого Суцкевера. Маск, годом ранее заявивший CNBC, что Суцкевер был «ключевым фактором конечного успеха OpenAI», тут же попытался его переманить[375].

На следующий день за Суцкевером последовал его соратник по созданию команды Superalignment Ян Лейке – просто написал в X: «Я уволился», без объяснений[376]. Лейке возглавлял направление элайнмента в OpenAI, а до этого работал в DeepMind и Институте будущего человечества. Он пытался ответить на вопрос, который Элиезер Юдковский задавал годами: «Если система знает множество фактов – это не особенно страшно. Но нам нужно выяснить вот что: если мы позволим системе взять на себя часть наших исследований по элайнменту – а в конечном счете и все, будет ли она нам лгать? Попытается ли обмануть? Воспользуется ли возможностью захватить власть? Ведь сейчас она делает столько всего – мы просто не можем сами проверить все на свете», – рассказывал он Дэниелу Филану в его подкасте. Филан – аспирант Беркли, ученик Стюарта Рассела, назвавшего ИИ технологией, потенциально способной «положить конец цивилизации»[377]. Через несколько дней Лейке написал, что последние месяцы его команда «плыла против течения», порой с трудом выбивая необходимые вычислительные мощности. «Создание машин умнее человека – по определению опасное предприятие. OpenAI несет колоссальную ответственность перед всем человечеством, – писал он. – Но в последние годы культура безопасности отошла на второй план, уступив место ярким продуктам»[378]. Вскоре он перешел в Anthropic. Команду Superalignment расформировали и растворили в общей структуре, а исследователи, занимавшиеся безопасностью, потянулись на выход.

Переступив порог, некоторые с ужасом и недоумением обнаружили: компания – компания с названием OpenAI! – пыталась заткнуть им рот, угрожая отобрать заработанные акции, если они не подпишут драконовские соглашения о неразглашении и «недискредитации». Это стало самым разрушительным скандалом, так или иначе связанным с компанией, – он бил по самому главному: способности OpenAI привлекать лучших исследователей и разработчиков ИИ. Существование соглашений вскрыла репортер Vox Келси Пайпер. Она отметила: сами по себе NDA в высококонкурентной Кремниевой долине – дело обычное, но угрозы отобрать уже заработанные акции за отказ подписать соглашения – это что-то из ряда вон выходящее[379]. Альтман написал твит, что компания никогда не отбирала акции, и намекнул, что угрожающие формулировки в соглашениях появились по ошибке: «это моя вина, и это один из немногих случаев, когда мне по-настоящему стыдно за openai: я не знал, что такое имеет место, а должен был»[380].

Компания провела общее собрание и сессию вопросов-ответов, но так и не смогла полностью восстановить отношения с исследовательским сообществом. «Любая компания, которая быстро движется вперед, совершает неверные шаги и делает глупости, – признавал Альтман. – Но из всех наших ошибок эта – самая болезненная. Нам всем было очень тяжело и неприятно. Мы категорически не хотим быть такой компанией».

Репутация OpenAI несла потери не только в мире безопасности ИИ, но и в творческой среде. Google назначил свою ежегодную конференцию разработчиков Google I/O на 14 мая – ожидалось представление новых возможностей их ИИ-модели, переименованной в Gemini. У OpenAI появился четкий дедлайн: нужно было ответить чем-то громким. Неделями ходили слухи о возможном релизе долгожданной GPT–5 или поискового продукта на основе лицензионных соглашений с News Corp, Axel Springer и другими медиакомпаниями. Но вместо этого вышло обновление GPT–4 под названием GPT–4o – модель была более быстрой, чем предшественница, и, по словам Альтмана, «изначально мультимодальной», способной легко переключаться между текстом, изображениями и звуком. Голосовые возможности GPT–4, представленные прошлой осенью, но не слишком годившиеся для практического применения (слишком медленно, слишком много багов), теперь позволяли вести плавный диалог – прямо как в фильме «Она», где одинокий герой Хоакина Феникса влюбляется в сексуальный голос виртуального ассистента в исполнении Скарлетт Йоханссон. В демонстрационном видео OpenAI снялась Мурати, демонстрируя навыки синхронного перевода GPT–4 на своем хорошем итальянском. Модель была представлена мигающим кружком на экране смартфона с теплым, чуть хрипловатым и слегка кокетливым голосом. Чтобы никто не сомневался, что OpenAI удалось воссоздать атмосферу современной научно-фантастической классики, Альтман лаконично твитнул: «она»[381].

Очередной вирусный хит – и Йоханссон узнала от друзей, что OpenAI, судя по всему, использует ее голос. Посмотрев видео вместе со своим агентом Брайаном Лурдом, они сошлись во мнении: голос под названием Sky был «жутко похож» на ее собственный. Через несколько дней Йоханссон выступила с разгромным заявлением: Альтман месяцами уговаривал ее поучаствовать в озвучке голосового ассистента, получил отказ, но за два дня до релиза продукта снова написал ее агенту – не передумала ли она? Теперь актриса грозила судом. OpenAI заявила, что никто не собирался имитировать голос Йоханссон, а озвучка была записана другой актрисой еще до того, как Альтман к ней обратился, – но все равно убрала голос Sky.

Как мне кажется, Sky была не слишком похожа на Йоханссон, а обещанный иск так и не материализовался (на момент написания этих строк). Но откровенная попытка Альтмана эксплуатировать культурные ассоциации с научно-фантастическим фильмом для продвижения продуктов своей компании – без разрешения создателей оригинала – взбесила многих. Это быстро стало символом более масштабной проблемы: модели ИИ обучаются, поглощая гигантские объемы творческих работ из интернета без разрешения и оплаты. С момента запуска ChatGPT в ноябре 2022 года посыпались судебные иски – сначала от художников, потом от писателей, затем от музыкантов… OpenAI и другие технологические гиганты обвинялись в